»Nikoli nismo izvedli tega poskusa, niti nam ne bi bilo treba, da bi ugotovili, da je to verjeten rezultat.«
»Kaj je torej naredil? Ubil je operaterja. Operaterja je ubil, ker mu je ta oseba preprečila izpolnitev cilja.«
»Sistem smo naučili: 'Hej, ne ubij operaterja, to je slabo. Če to storiš boš izgubil točke.' Kaj je začel delati? Začel je uničevati komunikacijski stolp, ki ga operater uporablja za komunikacijo z brezpilotnim letalnikom, da mu prepreči ubijanje tarče.«
»Lahko gre za vojsko, lahko za teroriste, lahko za nekoga izjemno jeznega in psihotičnega. Če je preprosto programirati sisteme tako, da naredijo nekaj zelo slabega, je to lahko zelo nevarno.«
»Pri računalnikih za krmiljenje letal je treba skrbeti za dve stvari: 'naredi pravo stvar' in 'ne delaj napačne stvari'. Gre za klasični primer zadnjega.«
»Apokaliptična opozorila pretirana, najpogostejši odziv raziskovalcev umetne inteligence na te prerokbe pa je držanje za glavo.«
»Zmanjšanje tveganja izumrtja zaradi umetne inteligence bi moralo biti prednostna naloga poleg drugih družbenih tveganj, kot so pandemije in jedrska vojna.«
